需要搜索时搜索，可靠时继续：面向高效智能搜索的元认知可靠性监督
🧭 Agentic RAG 搜索决策强化学习 ★ 深度解读
Beijing Institute of Technology
用局部结论的序列不确定性估计可靠性，为搜索/不搜索决策构建过程奖励，在 GRPO 中提升搜索效率与准确率
📌 工作参考价值（4 点）
- 将局部结论的 sequence uncertainty 作为可靠性信号，可用于对话推荐/购物助手中判断模型对中间结论的自信程度，决定是否调用商品知识库、搜索或 RAG；无需额外标注，推理时零开销。
- 对“搜索/不搜索”决策分别设计 process reward：不搜索时奖励高于校准阈值的可靠性，搜索时奖励检索前后可靠性的增量，而非只看最终答案是否正确；这能直接迁移到 Agent 工具调用策略的强化学习训练。
- 用 matched probes 估计 counterfactual reliability change，可推广到其他工具调用：固定同一状态，比较有/无工具返回结果的可靠性差异，作为工具价值的无偏监督。
- 实验结果提供可复用结论：该策略在 single-hop 查询上减少约 20.9% 搜索调用，multi-hop 上增加 6.6%，说明可按问题复杂度动态分配检索/工具调用，适合电商搜索中查询类型分流的成本优化。
σTransfer：μP参数化下从小网络到大网络迁移不确定性
🧭 μP参数化 · Laplace不确定性迁移
University of Cambridge · Spotify
利用μP推导先验协方差缩放，使Laplace近似中的精度选择可零样本从小模型迁移到大模型
📌 工作参考价值（4 点）
- 大模型不确定性评估省钱：在LLM/Transformer上做Laplace近似或贝叶斯推断时，先用μP参数化，在小模型上sweep先验精度，再零样本迁移到大模型，避免大模型上昂贵的posterior sweep。工程上可直接降低OOD检测、主动学习、拒答决策所需的计算成本。
- μP参数化是迁移的基础：若模型采用μP，先验协方差需按宽度缩放（论文中推导的重缩放），否则精度选择不随宽度稳定。迁移到业务模型时，需要同时采用μP初始化与对应缩放，不能只调精度。
- 后验决策可跨尺寸复用：论文验证了采集函数、OOD得分、拒答决策在后验稳定性下也能直接迁移，无需构造大模型后验。这对线上推荐/搜索系统里的不确定性相关模块（如置信度过滤、探索策略）有参考价值：可以只在小模型上调策略，再部署到大模型。
- 适合模型升级场景：当业务从1B模型升级到7B模型时，可复用已调好的先验精度，避免重新调参，加速约2.3～330倍（取决于任务），且NLL损失极小。
以问求证：基于熵减奖励的多轮 LLM 对话推荐
🧭 生成式对话推荐 · 熵减奖励 ★ 深度解读
Amazon
用推荐熵减作为多轮交互奖励，无需 ground truth 即可训练更高效的对话推荐 LLM
📌 工作参考价值（4 点）
- 可以把“采样推荐列表的加权熵”作为在线 Agent 的不确定性信号：每次用户回复后采样 top-k 商品列表，计算熵减，作为无监督 reward 或筛选样本，用于训练导购/客服 Agent，避免人工标注交互好坏。
- DPO 偏好对可由熵减重打标签，替换 CollabLLM 里 LLM-judge 的 interactivity 分数；工程上只需在原有生成流程中加一个采样和熵计算模块，成本低，且更贴合推荐目标。
- 加权熵公式中 rank j 权重为 1/log2(j+1)，可借鉴到推荐列表评估：强调 top 位置的一致性，避免长尾商品波动干扰不确定性估计。
- 评估时除了 Hit@k，还应关注达到目标商品所需轮次；电商多轮导购中可把“轮次效率”作为核心指标，与转化率一起优化交互策略。
不确信用专家，自信就省：MoE-LoRA 置信度自适应路由
🧭 MoE-LoRA 置信度自适应路由
University of California, Irvine · University of Washington
利用路由器分布作为 token 置信度信号，动态分配专家数量，在匹配预算下提升 MoE-LoRA 性能
📌 工作参考价值（4 点）
- 在电商推荐模型的 LoRA/MoE-LoRA 微调中，可直接用路由器分布替代额外置信度模块，实现 token/representation 的动态专家分配，节省推理成本。
- 推荐系统在线服务的 PEFT 适配：设置预算恒温器（budget thermostat）自动校准阈值，使平均激活专家数恒定，便于工程实现尾部延迟控制。
- 对用户/物品 Embedding 的 MoE 计算，可借鉴“分歧扩展”机制：当激活专家输出不一致时追加专家，提升困难样本质量。
- OOD 检测可复用相同的置信度与分歧信号，无需额外模型，为推荐系统的安全性、时效性监控提供低成本方案。
大语言模型中的元认知：基础、进展与机遇
🧭 LLM 元认知能力评估与增强
Yale University · University of California, Irvine
系统综述 LLM 元认知研究，提出监控与控制双过程框架，总结评估与增强技术
📌 工作参考价值（4 点）
- 推荐置信度过滤：在生成式推荐或对话 Agent 中，利用模型的校准（calibration）和不确定性估计能力，对推荐结果进行置信度评分，过滤低质量输出，提升推荐可靠性。
- 自我反思增强 Agent 决策：借鉴元认知监控-控制循环，在搜索/推荐 Agent 中加入自我评估步骤，让模型判断信息是否充分、是否需要调整查询或调用工具，提高任务完成率。
- 提示工程激发元认知：通过特定提示（如要求模型先解释推理过程再给出答案）诱导模型的自我反思，改善复杂推荐任务（如动态查询改写、广告文案生成）的准确性和可解释性。
- 减少幻觉与错误累积：在多步推理或序列推荐场景，引入元认知监控可以及时检测和纠正逻辑错误，防止错误传播，特别适用于需要长链条规划的购物助手或营销策略生成。
面向可解释 QA 的自适应检索与推理不确定性框架
🧭 不确定性估计 · 自适应检索与推理
University of Glasgow
利用 LLM 隐藏状态分解不确定性，以单次前向高效估计，按信号自适应触发 RAG 或推理
📌 工作参考价值（4 点）
- 对话式推荐/客服中的自适应检索：根据用户查询的模型内部不确定性，自动判断是知识不足（触发商品知识库 RAG）还是模糊冲突（启动推理链澄清），避免盲目调用。
- 低延迟在线服务：从隐藏状态单次前向计算不确定性，比多步提示或自一致性方法更轻量，适合高并发推荐问答场景。
- 多策略稳健响应：区分知识缺失与知识冲突，设计不同分支处理（如“查商品” vs “反问用户”），提升 agent 回答的可靠性。
- 用户可感知的置信度：显式的不确定性信号可转化为界面提示（如“正在为你搜索准确信息”），增强用户信任与体验。
贝叶斯稀疏低秩适应实现大语言模型不确定性估计
🧭 LoRA 变分贝叶斯稀疏训练 · 不确定性校准
Jilin University · Michigan State University
在LoRA的秩维度上施加随机掩码实现变分贝叶斯稀疏化，高效校准LLM推理置信度
📌 工作参考价值（4 点）
- 电商/推荐系统中用 LoRA 微调 LLM 做预测时，可直接引入秩维度的随机掩码（如训练时 Dropout 某个 rank component）来抑制过自信，无需修改模型主体。
- 将 DALorRA 的变分贝叶斯训练视为一种轻量集成：推理时多次随机采样子 rank 结构取平均，低成本获得校准后的预测分布，适合线上需要可信度打分的场景。
- 该工作验证了在仅操作 LoRA 参数的情况下即可实现有效校准，对线上部署友好，可避免昂贵地维护多个模型副本。
- 方法简单、即插即用，可直接嵌入现有的 LoRA 微调流程（如广告预估、搜索相关性判断等分类/回归微调任务）获得置信度更可靠的输出。
CoMet：上下文与多重性分解的多模态不确定性估计
🧭 多模态大模型不确定性估计
Princeton University
将多模态不确定性分解为上下文相关项与多重性相关项，用轻量级后置模块高效估计，无需重复生成
📌 工作参考价值（4 点）
- 电商推荐场景下的多模态模型（如图文推荐、短视频描述）可采用不确定性分解思路，区分任务固有歧义和多种可能答案的模糊性，辅助在线决策。
- 轻量级后置模块直接复用已有隐藏表征，无需多次采样或完整生成，适合推荐系统对低延迟的要求。
- 可用于多模态生成内容的幻觉检测，例如自动过滤不可信的图文推荐理由或评论，提升用户体验。
- Agent 在调用 MLLM 时可使用 CoMet 估计置信度，实现自适应动作执行或请求人工确认，增强系统鲁棒性。
获取前须知：检索增强生成中校准的检索预算分配
🧭 自适应检索预算分配 · RAG 校准
University of Maine at Presque Isle · Stanford University · Independent Researcher
为 RAG 提出校准概率接口，依置信度分配检索预算（闭卷/紧凑/完整/弃答），实现延迟与准确率权衡
📌 工作参考价值（4 点）
- 在检索增强的推荐或搜索系统中，可以根据模型置信度自适应调整检索深度（如仅用闭卷回答或检索少量文档），节省计算资源并减少延迟。
- 将序列对数概率等不确定性信号校准为正确性概率，用于选择性召回或拒绝回答，避免低质量输出影响用户体验，尤其适合高可靠性要求的排序或问答环节。
- 提供校准后的概率接口，允许系统在延迟和准确率之间显式权衡，可通过设置不同阈值适应不同场景（如高吞吐的广告检索与低延迟的在线推荐）。
- 离线校准步骤（如 Platt scaling）能大幅降低预期校准误差（ECE），直接移植到电商 RAG 管道中，提升检索决策的可靠性。
自适应不确定性感知的LLM裁判审计精炼框架
🧭 LLM-as-a-Judge 审计与人类一致性校准
Georgia State University · Michigan State University · Concordia University · University of Manitoba
在有限人工验证下，迭代学习人类一致性信号并优先审查不确定比较，提升LLM评判可靠性
📌 工作参考价值（3 点）
- 当用LLM评判器离线评估搜索推荐系统的生成式内容（如推荐理由、对话推荐）时，可借鉴AURA的不确定性感知主动学习机制：优先将LLM低置信度的成对比较送人工审核，少量标注即可显著校准评判器偏见，降低大规模人工评估成本。
- 将“信任度”显式建模为隐变量并迭代更新的思路可以迁移到业务中：例如在推荐系统的A/B实验解读中，LLM对实验报告的分析结论可能因数据分布偏移而不稳定，通过收集少量人工验证反馈迭代修正信任权重。
- 提出的可靠证据传播策略可启发在多轮对话评估或序列推荐评估中，如何利用已确认的高质量判断来推断相邻未标注样本，从而提高评估效率。
面向长文档 RAG 的不确定性感知多粒度混合检索框架
🧭 检索增强生成 · 多粒度混合检索与不确定性估计 ★ 深度解读
Purdue University
提出无需训练的 UMG-RAG，利用检索得分分布的熵动态估计各检索源与粒度的置信度，并通过父块提升生成连贯的紧凑上下文。
📌 工作参考价值（4 点）
- 多路召回动态融合：借鉴基于熵的置信度估计，电商搜索/推荐的多路召回（如语义向量 + BM25）可以不再使用固定权重融合，而是根据查询的得分分布“锐度”自适应分配权重，提升不同类型 query 的召回质量。
- 细粒度定位 + 父块返回：在商品描述或用户评价的长文本检索中，可用句子级精准召回证据，再通过 parent promotion 返回段落级上下文，保持生成理由或答案的局部连贯性，同时用重叠去重避免冗余。
- 零训练即插即用：整个方法不修改现有检索器和生成器，只做检索后处理，可以极低成本集成到现有 RAG 管线中，适合快速验证和上线。
- 长度惩罚控制上下文体积：通过长度惩罚（除以 sqrt(token 数)）在最终排序中倾向紧凑 chunk，能缓解大模型“lost-in-the-middle”问题，减少生成延迟和内存占用，对实时性要求高的推荐文案生成场景尤其有用。
不确定性引导的未来学习增强序列推荐
🧭 序列推荐 · 未来监督 · 不确定性估计 ★ 深度解读
City University of Hong Kong · Shenzhen Technology University · Peking University · Huazhong University of Science and Technology
提出不确定感知框架，根据模型对当前预测的置信度动态调节多步未来监督权重，显著提升序列推荐性能
📌 工作参考价值（4 点）
- 自适应未来监督权重：用当前预测的熵计算实例级权重，对不确定样本降低未来监督强度，避免噪声注入。可直接复用到电商序列模型的训练中，尤其适合用户行为稀疏或点击噪声多的场景。
- 零推理开销的辅助训练：未来监督和对比学习仅作为训练期正则化，推理时完全移除，不增加线上延时。业务中可放心加入未来辅助任务，不影响部署效率。
- 未来对比学习对齐全局趋势：将未来K个物品的嵌入做平均池化作为“未来视野”正样本，与当前用户表示对齐，然后区分其他用户的未来视野。这种全局偏好对齐可强化用户长期兴趣的建模，适合长周期购买决策的商品推荐。
- 模型无关的即插即用设计：框架可集成到Transformer、LLM增强等不同骨干结构上，实验表明对SASRec、DuoRec、LLM-ESR均有稳定提升，适合在现有推荐系统中快速尝试。
面向CTR预测的选择性测试时计算缩放：不确定性触发特征路径探索
🧭 测试时优化 · CTR预测 · 不确定性估计 ★ 深度解读
Alibaba Group
提出训练无关、模型无关的测试时框架UTTSI，根据样本不确定性自适应分配多路径探索，显著提升CTR预测性能
📌 工作参考价值（4 点）
- 不确定性感知的推理预算分配：在电商推荐中，用户/物品交互稀疏导致部分样本预测不可靠。UTTSI 通过 Count-Min Sketch 统计特征频率作为先验，结合模型 logit 置信度（或梯度属性）计算样本不确定性，从而为高不确定性样本投入额外计算，低不确定性样本快速通过。该方法无需修改模型，可轻量植入现有线上服务，尤其适合特征稀疏的业务。
- 多路径特征探索与一致性加权：对高不确定性样本，基于频率和属性分数随机采样生成多个特征子集，并行做多次前向预测，再用一致性加权聚合，可平均化噪声、提升鲁棒性。工程上可将多个子路径预测部署在并行 worker 上，保持单次前向延迟不变，适合有GPU平算资源的在线推理。
- 自适应特征过滤：通过离线计算每个特征场的可靠性阈值（分位数），推理时过滤低可靠性特征（频率+属性双低），简单有效。可单独作为一种特征去噪 trick 应用于生成式推荐或 Agent 的输入预处理，在保证高置信度特征的同时抑制噪声。
- 测试时计算缩放的范式迁移：本工作表明，即使不改变模型结构和训练流程，仅在推理时按需分配计算，也能带来可观的线上收益（A/B CTR 相对提升 5.3%）。对于有严格延迟要求但有额外算力的电商推荐系统，可以借鉴这种“推理时计算预算分配”思想，对低置信度请求进行多路召回或额外特征融合，而不影响基础链路。